邪教式反邪
在当今社会，加入邪教恐怕是你可能遇到的最不幸的事情之一。最好的结果，也不过是让你在一群赤诚却又深受蒙蔽的人堆里虚度光阴，或许你本身并无恶意，行事也算规矩，可结果却是耗费了大量的时间和金钱，最后落得个两手空空。其实，这番描述同样适用于任何一家失败的硅谷初创企业。仔细想来，那确实是一段极为煎熬的经历。所以，这确实相当可怕。
但真正的邪教远比想象中可怕。他们以「情感轰炸」 为招募手段，专门针对那些正陷入个人危机的人群。然后通过剥夺睡眠、强迫高强度劳动致其过度疲劳，或将招募对象安置在偏远的公社以隔绝其亲友。并且他们每天组织集会，来勒令成员忏悔 「不洁思想」。除此之外，邪教榨干招募对象所有钱财的情况更是屡见不鲜——包括毕生积蓄和每周薪水，迫使他们在衣食上完全仰仗邪教。而不顺从者将会遭受饥饿惩戒。而这一切，都伴随着严重的洗脑与切实的伤害。
考虑刚才说的，我其实应对那些此时此刻极度紧张的人抱有更多同情，因为当他们在着手某些看似古怪的事业时，会担心自己是否可能正在加入邪教。虽然这种担心本不该让我心烦意乱。但我就是心烦。
第一点：「邪教」与「非邪教」并非如犬与猫一般，具有界限清晰的自然类别。若你查阅任何一份邪教特征清单，便会发现其中有些条目完全可以用来描述政党和企业——比如「怂恿成员将外部批评视作别有用心而心生质疑」「层级化的权威架构」。我曾就一些群体失败模式著述，例如群体极化、幸福死亡螺旋、无批判性 以及信念蒸发冷却，这些模式似乎彼此助长，交织共生。当此类失败盘根错节、相互作用时，它们会融为一种「超级失败」，其荒谬程度远胜于单一部分的简单叠加——就像战神金刚 一样。但这并非「邪教」的本质，而是「邪教」的吸引子。
犬生来便携带犬的 DNA，猫则生来便拥有猫的 DNA。在如今的世界里，不存在介于两者之间的中间形态。（即便借助基因编辑技术，也绝非简单创造出一个一半含犬基因、一半含猫基因的生物就能实现。）多半不存在一套相互强化的「狗的特征——一只猫不会因为沾染上其中一部分特征，就沦为「半狗」。
人类的大脑在进行类别划分时，似乎更偏爱「本质论」而非「吸引子理论」。人们总倾向于直接判定「这是邪教」或「这不是邪教」，一旦下了定论，分类任务便宣告完成。就像你观察到苏格拉底有十根手指、身着衣物且能说一口流利的希腊语，便可以断定「苏格拉底是人」，进而推导出「苏格拉底会被毒芹杀死」，而无需通过专门的血液检测来证实他必有一死。你就这样一劳永逸地确定了苏格拉底的「人性」。
但如果你观察到某一群体似乎表现出内群体与外群体的极化现象，且在他们「最钟爱之物」周围能看到明显的晕轮效应——这「最钟爱之物」可能是客观主义、素食主义，或是神经网络——那么仅依据目前收集到的证据，你无法推断他们是否已陷入「无批判性」的状态。你也无法推断他们的核心观点是对是错，或是虽有一定价值却并非如他们所想的那般有用。仅依据目前掌握的信息，你更无法判断他们在其他方面是否彬彬有礼，抑或他们是否会诱骗你与外界隔离，并剥夺你的睡眠与食物。「类邪教特质」并非要么全部存在，要么完全不存在。
如果你去看网上关于「X 是邪教」「X 不是邪教」的争论就会发现：一方会在网上找一份邪教特征清单，挑出一条符合的就说「所以这就是邪教！」；而辩护方则会找出一条不符合的特征反驳道「所以这不是邪教！」。
你无法用这种本质主义的思维方式，来精确描绘一个群体的动态推理过程。你必须逐一关注每个特征的具体情况。
此外，谬误的反面并非真理。若你关注的是核心观点本身，而非仅仅是践行该观点的群体，便会知晓：明智的观点也可能有愚昧的追随者。不少新纪元运动者动辄大谈 「量子物理」，但这丝毫无损量子物理的内核。当然，荒谬的观点也会有愚昧的追随者。与二元本质论如影随形的，是这样一种偏颇逻辑：若你认定某个群体是 「邪教」，便推断其主张必定错误——只因 「错误主张是邪教的特征」，恰似猫必有皮毛般天经地义。可若你真正关注观点本身，就该聚焦观点，而非盲从者。毕竟，「类邪教特质」更多是群体的烙印，而非假说的属性。
第二个谬误在于，当人们紧张地问道：「这不是邪教吧？」在我听来，他们似乎在寻求理性思维的保证。理性主义者不该过度执著于自身理性形象的观点，值得另撰专文探讨（参见十二美德 为何追求真理？以及… 及两个邪教公案）。即便不深入探讨，人们也应明白：焦虑地寻求保证绝非审视理性问题的最佳心态。你不会怀抱真诚的好奇心，也不会设法满足你的疑虑。相反地，你会找到某个网络来源声称邪教利用睡眠剥夺控制人，而你注意到最爱的团体并未采用此手段，便断言「这不是邪教。呼！」——这就像说「没有毛发的就不是猫」。真是令人安心啊。
但每个事业都想成为邪教，无论事业本身是明智或愚昧。内群体-外群体二分法等现象皆属人性本质，并非变种人的特殊诅咒。理性则是例外，非常态的。你必须持续努力，才能在自然趋向熵增的状态中维持理性。若你认定「这不是邪教！」而松了口气，便不会持续抵制那些寻常的邪教化倾向。你会断言邪教本质不存在，从而停止对抗邪教吸引子的熵增力量。
若你对邪教倾向极度敏感，便会竭力否认任何类似邪教的特征。但任何目标被视为正面的团体都可能陷入光环效应的风险，必须持续抗衡熵增效应，方能避免陷入情感死亡螺旋。这现象甚至存在于政党等常规机构——那些认定「自由派价值观」或「保守派价值观」能治愈癌症的人群便是例证。硅谷新创公司亦然，无论成败都是如此。苹果用户与Linux用户皆不例外。光环效应不会因群体效应而合理化；若众人齐赴悬崖，你仍不该跟随。此种谬误需被摒弃而非纵容。但若你过度忧虑「你确定这不是邪教吗？」，便会对任何邪教征兆避之唯恐不及——因为那意味着你身陷邪教，而这不是邪教！！。如此一来，你将看不见当今战场上，那些寻常的邪教倾向正悄然蔓延，或被奋力遏止的实况。
第三个我强烈怀疑的谬误在于，在紧张地问出「这不会是个邪教吧？」的时候，那份紧张感的缘由其实完全错了。
为何那些将其伟大理念赞颂到天际、鼓励成员倾尽所有钱财并从事自愿奴役、还运营封闭营地将成员严密隔离的团体，一旦存在几百年后，就被称作「宗教」而非「邪教」？
为何大多数紧张地询问人体冷冻技术「这不会是个邪教吧？」的人，却不会对参加共和党或民主党政治集会抱有同样的紧张？内群体-外群体对立会发生，快乐死亡螺旋也会发生。这些现象可以出现在政治讨论中，可以出现在主流宗教中，也可以出现在体育迷群体中。倘若这份紧张感源于对理性错误的担忧，人们就该用同样恐惧的语调发问。对着民主党或共和党的政治集会，他们也该问：「这不会是内群体-外群体对立吧？」
相比飞碟邪教，人们对自由意志主义不那么恐惧，这是有正当理由的——自由意志主义者并不以使用睡眠剥夺来转化他人而闻名。但人体冷冻技术的倡导者也同样没有使用睡眠剥夺的恶名。既然如此，为什么人们对在停止呼吸后冷冻自己的头颅会更加担忧呢？
我怀疑这种紧张感并非源于对错误信念的恐惧，也不是对人身伤害的恐惧，而是对孤独异议孤勇的反抗的恐惧。这正是 Asch 从众实验中实验对象所体验到的那种紧张感：当所有其他实验对象（实际上是实验助手）一个接一个地说线段 C 与线段 X 大小相同，而在他看来，线段 B 才与线段 X 大小相同时。这是对脱离群体的恐惧。
这就是为什么那些信念存在足够长时间、以至于显得「正常」的团体，不会像「邪教」那样引发同样的紧张感——尽管某些主流宗教也可能拿走你所有的钱，把你送进修道院。这也是为什么政党这类极易出现理性错误的团体，不会像「邪教」那样引发同样的紧张感。「邪教」这个词并非用来象征理性错误，而是用作看起来怪异之物的标签。
并非每个变化都是改进，但每个改进必然意味着变化。你想要把某件事做得更好，就必须用不同的方式去做。常识中确实蕴含着不少实实在在的智慧。对怪异的事物要求更高的证明标准，这是合理的。但这种紧张感并非那种经过深思熟虑的理性考量，而是对相信某种会让朋友们用异样眼光看待你的信念的恐惧。因此，人们会用一种绝不会用于参加政治集会或摆放巨大圣诞装饰的语气询问：「这不会是邪教吧？」
这正是困扰我的地方。
这就好比，只要你相信了任何祖先不曾相信的东西，邪教仙子便会从天而降，向你灌注邪教的本质。接着你就会发现自己正穿着长袍并吟诵。似乎「怪异」的信念就是问题的直接原因，至于睡眠剥夺和殴打之类，根本不值一提。邪教造成的伤害——比如天堂之门教派的集体自杀——只不过证明了所有持有怪异信念的人都是疯子。「邪教成员」的首要特征，就是他们是拥有奇特行径的局外人。
确实，社会上不寻常的信念会让一个群体面临内群体-外群体思维、蒸发冷却效应及其他问题的风险。但这种不寻常性只是风险因素，而非疾病本身。拥有你认为值得实现的目标，情况亦然。无论该信念是否为真，怀有美好的目标总会让你面临快乐死亡螺旋的风险。但这只是让崇高的目标成为风险因素，而非疾病本身。确实有一些目标真正值得追求。
另一方面，我认为睡眠剥夺或威胁殴打异议者是完全没道理的，毫无例外。当一个群体这样做时，无论你把它叫作「邪教」还是「非邪教」，关于是否加入这一问题已经有了直接的答案。
第四个问题在于：对孤独异议的恐惧，正是邪教本身所利用的机制。害怕朋友们用不赞同的眼光看待你，恰恰是真正的邪教用来吸纳和控制成员的手段——它们用教内信徒之间无处不在的一致意见将新成员团团包围。
对怪异想法的恐惧、对从众的冲动，无疑警告了许多潜在受害者远离飞碟邪教。当你置身其外，它让你留在外面。但当你身在其中，它就让你留在里面。从众就是把你粘在原地，无论是好是坏。
这类人希望能有某种方法确保自己不在「邪教」中。希望有某种明确的、压倒性的反驳，用来回应那些用异样眼光看他们的人。希望有某种方法能让他们一劳永逸地知道自己做的是对的，摆脱这些持续的怀疑。我想这就是所谓的「认知闭合需求」。而且——当然——邪教也会利用这一点。
因此便有了「邪教式反邪」这一说法。
带着怀疑生活并非美德——每个怀疑的目的都是通过成功或失败来消灭自身，而悬而未决的怀疑毫无成效。但有时，一个怀疑确实需要一段时间才能消灭自身。对理性主义者而言，带着一堆尚未解决的怀疑生活不可避免。怀疑不应令人恐惧。否则，你就不得不在极度惶恐的生活与极度愚蠢的生活之间做出选择。
如果你真的、确实无法判断一个群体是否是「邪教」，那么你就必须在不确定性中做出选择。这正是决策理论的核心所在。
第五个问题：缺乏战略性思考。
我认识一些对奇点主义保持谨慎的人，他们同样对政党和主流宗教保持谨慎。谨慎，而非紧张或防御。这些人一眼就能看出，奇点主义显然不是那种使用睡眠剥夺等手段的成熟邪教。但他们担心奇点主义会演变成邪教，因为存在风险因素，比如将强大 AI 的概念变成「超级快乐代理」(一个主要通过认同关于它的任何赞美来界定自身的主体)。某物现在不是邪教，并不意味着它将来不会变成邪教。邪教性质是一个吸引子，而非本质。
这种谨慎让我恼火吗？绝对不会。我自己也花大量时间担心那种情况。我试图提前落子，阻止向那个方向的移动。因此，比如说，才有了这一系列关于邪教式推理失败的文章。
谈论「理性」的人也面临一个额外的风险因素。给人们提供关于如何思考的建议，这本身就是件危险的事情。但这是风险因素，而非疾病。
我最喜欢的两个事业都面临邪教化风险。然而不知为何，当我谈论强大的人工智能时，被问「你确定这不是邪教吗？」的频率，远高于我谈论概率论和认知科学时。我不知道哪一个的风险因素更高，但我知道哪一个听起来更怪异……
第六个问题：关于询问「这不是邪教，对吧？」……
光是这个问题本身就把我置于一种非常恼人的第二十二条军规式困境。一个真正的邪恶导师肯定会利用对方的紧张来对付他，精心设计一套看似合理的详尽论证，解释为什么这不是邪教，而对方会急切地接受。有时我觉得这正是人们想要我做的！每当我试图写关于邪教性质以及如何避免它时，我总感觉自己在屈服于那种有缺陷的欲望—— 归根结底，我在为人们提供安心感。即使当我告诉人们需要持续对抗熵时也是如此。
这感觉像是我把自己变成了阿希从众实验中的第一个异议者，告诉人们：「是的，线段 X 确实和线段 B 相同，你也可以这样说。」他们本不该需要问！或者，更糟的是，感觉像是我在呈现精心论证来解释为什么这不是邪教。这是个错误的问题。
自己去观察那个群体的推理过程，一旦摆脱了对怪异的恐惧，自己决定这是否是你想参与的。无论你目前恰好身处哪个群体，避免邪教式思考都是你自己的责任。
一旦有人问「这不是邪教，对吧？」那么无论我如何回答，我总感觉像是在辩护什么。我不喜欢这种感觉。给予安抚不是贝叶斯大师的职责，辩护也不是理性主义者的职责。
邪教以群体思维、紧张感和对安抚的渴望为食。你无法靠愿望让紧张消失，而虚假的自信甚至更糟。但只要有人需要安抚，即使是关于成为理性主义者的安抚，那也永远是他们盔甲上的一道裂痕。熟练的剑客专注于目标，而不是瞥向别处看是否有人在嘲笑。当你知道自己试图做什么以及为什么时，你就会知道自己是否做到了，也会知道一个群体是在帮助你还是阻碍你。
（附言：如果有人来找你说：「你确定这不是邪教吗？」不要试图一口气解释所有这些概念。你在低估推理距离。那人会说：「啊哈，所以你承认你们是邪教！」或者「等等,你是说我不该担心加入邪教？」或者「所以……对邪教的恐惧本身是邪教式的？这听起来非常邪教啊。」所以最后一个烦恼因素，如果你在数的话是第7个，就是所有这些解释起来实在太长了。）